深耕物联网市场，英特尔发力边缘人工智能

随着人工智能、5G、边缘计算等技术的发展，物联网（IoT）也开始与人工智能（AI）深度融合，推动了边缘人工智能计算爆发。

近日，2019英特尔人工智能与物联网生态合作伙伴峰会在厦门成功举办。在此次峰会上，英特尔全面展示了其在AI和IoT领域的强大技术实力，在推出了最新版本的Intel® Distribution of OpenVINO™ 工具包（2019 R3）（以下简称OpenVINO™ R3），还正式推出了边缘人工智能生态智库，积极推动物联网生态系统的发展进化。与此同时，英特尔还邀请了包括硬件厂商、软件厂商、系统集成商和云服务商等在内的众多行业专家和业界精英齐聚一堂，共同展示人工智能和物联网领域的前沿技术及开发平台，分享最新的解决方案及成功实践案例，以携手实现物联网生态系统的合作共赢。

万物互联的数据洪流之下：边缘人工智能势在必行

根据IDC预测，到2025年，全球物联网设备数将达到416亿台，而整个智能联网设备的数量将会达到1500亿台，而数量如此庞大的设备接入网络，无疑将产生海量的数据。IDC预测，2025年时全球数据量总和将高达175ZB，这相比其2017年时的预测（163ZB）提高了7%左右。（注：1ZB就是1000EB，1EB是1000PB、1个PB是1000TB，1TB是1000个GB。）

就中国市场来说，IDC数据显示，到2025年中国的智能联网设备将会达到800亿台，届时数据总量将达到48.6ZB，占全球数据总量的近1/3。

面对如此庞大的数据量，将其全部放到云端来进行处理显然是不现实的，这对于数据处理能力、网络带宽、安全、连接、延迟等都带来了极大的挑战，在此背景之下边缘人工智能计算将势在必行。

英特尔中国区物联网事业部渠道与生态总监于冰公布的数据显示，2019年45%的数据将在边缘进行存储、分析和处理，到2023年在边缘设备（与云端）上发生AI任务的比例为43%，到2023年具有边缘AI功能的设备将增长15倍。

英特尔中国区物联网事业部副总经理Bob Ferrar在演讲中指出，到2025年，超过55%的数据由物联网创造，人工智能及视觉相关的边缘推理半导体芯片市场规模在2018年约为20-30亿美元，预计在2023年总体市场机会达80-90亿美元，复合增长率超过25%。

英特尔公司物联网事业部副总裁兼物联网事业部中国区总经理陈伟博士也表示，视觉应用推动了人工智能在边缘的普及。2019年成熟管理产生的视频数据达到了2500PB，到2021年，82%的网络数据将是视频数据，年复合增长将达到11%。在数据爆发式增长的趋势之下，利用边缘人工智能技术，将可以有效的对于数据进行分析，从这些数据中提取的价值将从目前的65亿美元提高到2025年的399亿美元。

英特尔资深副总裁物联网集团总经理Tom Lantzsch认为，未来计算机视觉和AI推理在边缘侧的重要应用领域将是安防、零售、医疗和工业。预计到2023年，全球物联网边缘推理市场规模将达到150亿美元。

显然，边缘人工智能已成大势所趋，而且边缘人工智能将极大的提升数据在边缘处理的能力、降低时延、降低网络带宽的压力、提升数据的安全性，同时提升对于数据分析所带来的价值。

英特尔的边缘人工智能布局

为了应对边缘人工智能的趋势，早在2016年9月，英特尔就收购了计算机视觉芯片公司Movidius，开始加码边缘侧的人工智能布局。Movidius 在计算机视觉方面有很强的技术积累，这家从 2006 年就成立的视觉计算芯片公司花费了9年的时间开发出了低价低功耗高性能的视觉处理器芯片——Myriad 系列 VPU（Vision Processing Unit）。目前其Myriad 系列 VPU也被众多的厂商广泛应用。比如大疆的Spark无人机，谷歌Clips相机都采用了Myriad 2系列 VPU。英特尔2017年推出的第一代Movidius神经计算棒也是基于Myriad 2系列 VPU，2018年推出的第二代的神经计算棒则是基于Myriad X系列VPU，这也是目前英特尔在边缘人工智能市场的一款主打产品。

除了Myriad 系列 VPU之外，得益于英特尔原本在传统的嵌入式CPU市场就拥有着很高的市场份额，其Core（酷睿）、Atom（凌动）系列CPU目前也被广泛的应用于物联网市场，可以承担一定的人工智能计算。

更为值得一提的是，目前在云端人工智能方面，英特尔也拥有着极高的市场份额，其不仅拥有Xeon系列处理器及几年前收购的Altara FPGA（最新推出的是Arria10），同时最新一代针对云端的人工智能处理器Nervana也即将商用。

由于物联网当中不同的网元所能提供的计算量是不一样的，它能够支撑的操作系统也各不相同的，因此有各自适用的不同的芯片架构。如果要部署人工智能，就需要不同特性硬件平台以及软硬件协同优化。所以英特尔在2018年7月，正式推出了基于英特尔硬件平台的专注于加速深度学习的OpenVINO工具包，以实现对于英特尔多个硬件平台的软硬件协同，帮助企业在边缘侧快速实现高性能计算机视觉与深度学习的开发。

对于人工智能部署来说，不同的芯片往往有各自不同的开发方法，这样对开发者而言就带来一定的困扰。比如开发者为某一款芯片所开发的软件，如果换了一个架构以后，它可能是不适用的，这样无形中就增加了开发的门槛和工作量。而英特尔的OpenVINO则可以帮助开发者轻松实现基于英特尔硬件平台的从云端到终端侧的跨平台部署，并发挥出各个硬件平台的能力。

英特尔还打造了多款的开源工具，比如DPDK、OpenNESS、Open Visual Cloud等。其中，OpenNESS定位于帮助用户对软件做先进的应用开发；Open Visual Cloud主要帮助做视频处理；DPDK则是数据平面开发套件，用于快速数据包处理的函数库与驱动集合，可以极大提高数据处理性能和吞吐量，提高数据平面应用程序的工作效率。

此外，据英特尔资深副总裁物联网集团总经理Tom Lantzsch透露，英特尔还计划在2020年推出功能安全和实时控制的相关开发工具。

除了在计算芯片和软件工具上的布局之外，英特尔在制程封装、内存/存储、互联、安全、软件技术等方面也有着深厚的积累，基于此，英特尔可以提供端到端的、业界领先的人工智能全栈解决方案， 可以在传感器、终端、网关、边缘云、云端等重要计算节点进行人工智能的加速运用。

加码边缘人工智能，英特尔推出OpenVINO R3

为了进一步提升基于英特尔平台的边缘人工智能的性能，在此次2019英特尔人工智能与物联网生态合作伙伴峰会上，英特尔发布了OpenVINO的最新版本R3。

据介绍，OpenVINO R3将支持第10代英特尔酷睿处理器（代号为Ice Lake），新增命令行界面（CLI）部署管理器，通过网络加载优化来提高性能，并通过减少模型加载时间来加速推理速度，同时还新增了三种预训练视觉模型。OpenVINO R3基于软硬件复合式的改善，性能呈指数级提升，将帮助开发者更好地发挥人工智能的潜力。

英特尔公司物联网事业部视频业务市场拓展总监Thomas Neubert表示，OpenVINO一年有会更新四个版本，也就是说每个季度会推出新的版本。

根据现场公布的数据显示，相比在2018年第一个版本的OpenVINO加持下的第一代的Xeon Scalable的性能来说，在底层硬件平台不变的情况下，2019年更新的第一个版本的OpenVINO使得性能提升2.1倍，如果底层硬件采用第二代的Xeon Scalable，那么性能将提升28.4倍。Thomas Neubert表示，软硬复合式的改善使得性能呈现指数级的提升。

从2018年到2019年第一季度，在底层硬件平台不变的情况下，OpenVINO的升级使得性能提升2.1倍；如果用到下一代CPU硬件平台上，性能可以提升28.4倍。

根据英特尔资深副总裁物联网集团总经理Tom Lantzsch公布的实际测试数据显示，在Core i7平台上如果未采用OpenVINO，CPU模式下使用Intel MKL加速Caffe，只能实现对一个30FPS/33.3ms的数据流的处理。而有了OpenVINO R3的加持将可实现对于16个数据流的处理，如果再加上VAD R8扩展，可实现对49个数据流的处理。

此外，Thomas Neubert还透露了下一个版本OpenVINO R4及未来R5版本即将带来的性能提升。根据公布的数据显示，相比基于Xeon平台的OpenVINO R4版本，OpenVINO R5在多个模型下，性能将再度提升23%到100%以上。

Thomas Neubert表示，OpenVINO的主要优势在于做到了最大限度的开放，OpenVINO已基于Apache 2.0 license开源，支持整个生态系统。

而为了推动OpenVINO的生态，英特尔还亲自对369个模型进行了针对性测试，以确保OpenVINO对这些模型稳健可用。同时，英特尔还在全球组织超过100次开发者培训，并在网上提供OpenVINO全球在线培训资源，提供内容包括样本代码、30多个4-5分钟的培训视频、远程登陆云开发环境。

在本次会议上，英特尔还推出了到为边缘推理量身定制的“英特尔开发云”，开发者通过基于云包含异构边缘硬件的开发环境，即可实现私密的端到端访问。对于开发者来说，私有代码的安全性是至关重要的，使用英特尔开发云，则可以保证包括英特尔在内的任何第三方都不能获得开发者自己的私有代码。

发布边缘人工智能生态智库，加速规模部署人工智能物联网

为了快速拓展边缘人工智能生态，英特尔推出了“英特尔边缘人工智能生态智库”，旨在以领先的开发者工具和生态系统方案，帮助合作伙伴及行业快速规模部署人工智能物联网。

英特尔边缘人工智能生态智库将为行业带来丰富而全面支持：

• 针对开发者、独立软件开发商、设备商和原始设备制造商（OEM），提供高性能硬件和优化的行业软件配方，其中包括英特尔®芯片平台、英特尔® 视觉加速器设计，以及行业配方和软件选择工具（如OpenVINO™ 工具包）

• 针对云和边缘开发者以及独立软件开发商，提供预先捆绑好的开发者产品和工具，其中包括开发套件、英特尔®神经计算棒，以及边缘到云的整合（如OpenVINO™ 工具包 阿里云视频边缘智能服务产品Link Visual 2.0）

• 针对最终用户、系统集成商和企业开发者，提供特定使用案例套件和可部署的方案，其中包括英特尔®行业整体解决方案、英特尔® 开发套件和英特尔® 物联网解决方案聚合商，目前已覆盖了工业、零售、智慧城市和医疗这四个垂直领域。

携手合作伙伴，壮大物联网生态系统

此次峰会上，英特尔与其生态合作伙伴共同展示了业界领先的人工智能和物联网相关技术及产品，不但传递了英特尔开放共赢的生态理念，更是积极拓展了生态合作的深度和广度。

▲基于英特尔OpenVINO™ 工具包和英特尔VPU AI推断计算加速卡解决方案，荣旭元器件外观瑕疵检测设备在保证检测精度和速度的同时，极大降低了部署成本。

▲云丛科技推出的基于英特尔酷睿WhiskeyLake-U处理器及HDDL在金融领域的人工智能解决方案。

▲由小钴科技推出的基于英特尔Movidius和Realsense 3D技术的3D人脸识别智能门锁及智能零售解决方案。

▲基于英特尔视觉识别、边缘计算和网关技术，深圳吉方科技推出的智慧门店一体化系统开放平台提出了规范的部件接口协议、数据通讯协议，由此形成了新零售智慧门店POS接口标准。

▲希沃智慧课堂端到端解决方案，由云、班云服务器、教师教学终端及交互式白板，和基于英特尔® Apollo Lake的学生终端组成，覆盖课前、课中、课后全教学流程，改变传统教学方式，打造全员参与、互动生成的智慧课堂。

此外还有基于英特尔Movidius™ 和边缘计算技术，集成云图睿视边缘计算平台内嵌视觉算法，支持各类传感器接入和各类算法运行，是全球首款开放式人工智能边缘计算平台；基于英特尔® Arria® 10 FPGA 处理器，智微智能FPGA人工智能加速卡可实现可编程专用性，达到更高性能，更低功耗的数据快速分析处理，并可扩展到众多产品中，为传统设备添加人工智能计算能力。

▲英特尔客户新平台主板、创新主板及行业标准模块展示

英特尔公司物联网事业部副总裁兼物联网事业部中国区总经理陈伟博士表示：“面对前景广阔的人工智能和物联网市场，我们需要构建一个丰富且强大的生态系统来更好地激发市场潜力，从而一起把市场做大做强。我们非常高兴地看到，越来越多的生态合作伙伴正与英特尔一起，为推动物联网生态系统的健康发展砥砺前行。同时，英特尔也将继续不遗余力地为行业提供最新、最全面、最可靠的领先技术和解决方案，与生态合作伙伴携手同行，共创辉煌。”

编辑：芯智讯-浪客剑

往期精彩文章

行业交流、合作请加微信：icsmart01
芯智讯官方交流群：221807116